Joule chết tại nhà ở Sale và được chôn cất tại nghĩa trang Brooklands ở đó. Bia mộ của ông được ghi số "772,55", con số đo lường của ông năm 1878 về tương đương cơ học của nhiệt, trong đó ông phát hiện ra rằng phải mất 772.55 foot pound công tại mực nước biển để tăng nhiệt độ của một pound nước từ 60 đến 61 °F. Trên bia mộ cũng trích dẫn Phúc âm John: "Tôi phải làm việc với các khám phá mà anh đã gửi cho tôi, vào ban ngày: khi đêm tới, không có ai làm việc".[16] Quán rượu của Wetherspoon ở Sale, thị trấn nơi ông chết, được đặt tên là "The JP Joule" theo tên ông. Nhà máy bia gia đình của Joule tồn tại cho đến ngày nay nhưng hiện được đặt tại Chợ Drayton.  

Joule có rất nhiều danh hiệu và khen tặng bao gồm:

• Thành viên của Hiệp hội Hoàng gia (1850)
  • Huy chương Hoàng gia (1852), 'Đối với bài viết của ông về cơ học tương đương với nhiệt, được in trong Giao dịch triết học cho năm 1850'
  • Huy chương Copley (1870), 'Đối với các nghiên cứu thử nghiệm của ông về lý thuyết động lực học nhiệt'
• Chủ tịch Hội văn học và triết học Manchester (1860)
• Chủ tịch Hiệp hội vì sự tiến bộ của khoa học Anh (1872, 1887)
• Thành viên danh dự của Viện Kỹ sư và Công nhân đóng tàu ở Scotland (1857)
• Bằng cấp danh dự:
  • LL. D, Đại học Trinity, Dublin (1857)
  • DCL, Đại học Oxford (1860)
  • LL. D., Đại học Edinburgh (1871)
• Joule nhận được một khoản trợ cấp danh sách dân sự trị giá 200 bảng mỗi năm vào năm 1878 cho các dịch vụ cho khoa học
• Huy chương Albert của Hiệp hội Nghệ thuật Hoàng gia (1880), 'vì đã thành lập, sau khi nghiên cứu nhiều công sức nhất, mối quan hệ thực sự giữa nhiệt, điện và công việc cơ khí, do đó, cho kỹ sư một hướng dẫn chắc chắn trong ứng dụng khoa học trong công nghiệp'

Có một đài tưởng niệm Joule ở lối đi phía bắc của Tu viện Westminster, mặc dù ông không được chôn cất ở đó, trái với những gì tiểu sử nói. Một bức tượng Joule của Alfred Gilbert đứng trong Tòa thị chính Manchester, đối diện với Dalton.